iT邦幫忙

2024 iThome 鐵人賽

DAY 0
0

接續昨天的內容,將上傳到雲端的GGUF檔案下載到本地端,並放到Open WebUI上做使用。

步驟一: 進入管理員控制台,點選模型進入管理模型介面
https://ithelp.ithome.com.tw/upload/images/20241013/20168005QRFsAkySDu.png

步驟二 將實驗性功能旁邊的【顯示】點開
https://ithelp.ithome.com.tw/upload/images/20241013/20168005NOKlyEt8EY.png

步驟三 從本地端將微調完的GGUF檔上傳,結束後即可回到對話頁面選擇模型做使用
https://ithelp.ithome.com.tw/upload/images/20241013/201680054fZlTOnNsE.png

使用微調完的模型就可以不用每次在寫指令時將檔案一直上傳,並且可以讓系統依據學習的文件內容做回答,因此能更接近我們想要得到的答案。


上一篇
Day18 透過Unsloth進行模型微調__Colab微調模型
下一篇
Day20 RAG架構筆記_組成三大元素
系列文
除了ChatGPT,你了解生成式AI的其他應用嗎?30天從零到精通的學習與實作30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言